我又写了个好玩的工具
苏生不惑第
356
篇原创文章,将本公众号设为星标
,第一时间看最新文章。
之前文章微博/公众号/抖音等各大平台都显示 ip 归属地了,能改吗? 我用代码统计了下公众号留言区的地区分布情况,广东的小伙伴最多:
今天再分析下微博评论区,以最近大火的刘耕宏这条微博为例https://m.weibo.cn/detail/4764632424907631 微博
获取下载地址),输入微博mid和微博cookie就行:
微博评论内容的词云图:
import requests,re,csv,time,random,pandas as pd
import numpy as np
from pyecharts import options as opts
from pyecharts.charts import Bar
from pyecharts.charts import Pie
def ipData(mid):
df = pd.read_csv(f"{mid}.csv",encoding='utf-8')#,on_bad_lines='skip'
df2=df.ip归属地.value_counts().sort_values(ascending=False).head(10)
ip = df2.index.tolist()
counts = df2.values.tolist()
bar = (
Bar()
.add_xaxis(ip)
.add_yaxis("", counts)
)
pie = (
Pie()
.add("", [list(z) for z in zip(ip, counts)],radius=["40%", "75%"], )
.set_global_opts(title_opts=opts.TitleOpts(title="饼图",pos_left="center",pos_top="20"))
.set_global_opts(legend_opts=opts.LegendOpts(type_="scroll", pos_left="80%", orient="vertical"))
.set_series_opts(label_opts=opts.LabelOpts(formatter="{b}: {d}%"), )
)
pie.render(str(mid) +'.html')
另外微博转发数据的抓取可以用chrome扩展web scraper 不用写代码,Chrome 扩展神器 web scraper 抓取知乎热榜/话题/回答/专栏,豆瓣电影 ,还是以刘耕宏这条微博的转发为例 https://weibo.com/1767819164/Lr7nQkAHl?type=repost ,设置3个选择器:微博昵称,微博评论,评论时间。
为了方便大家学习数据抓取,我导出了sitemap,你可以直接导入使用。
{"_id":"weibo","startUrl":["https://weibo.com/1767819164/Lr7nQkAHl?type=repost"],"selectors":[{"id":"content","type":"SelectorElementClick","parentSelectors":["_root"],"selector":"div.list_li","multiple":true,"delay":2000,"clickElementSelector":"a.page[action-data]","clickType":"clickOnce","discardInitialElements":"do-not-discard","clickElementUniquenessType":"uniqueText"},{"id":"微博昵称","type":"SelectorText","parentSelectors":["content"],"selector":".WB_text a[usercard]","multiple":false,"regex":"","delay":0},{"id":"微博评论","type":"SelectorText","parentSelectors":["content"],"selector":".WB_text span","multiple":false,"regex":"","delay":0},{"id":"评论时间","type":"SelectorText","parentSelectors":["content"],"selector":".WB_from a","multiple":false,"regex":"","delay":0}]}
如果还想分析微博正文看我之前文章一键批量下微博内容/图片/视频,获取博主最受欢迎微博,图片查找微博博主 ,比如李健微博每个月的转发评论赞数总和。
最近原创文章:
解除b站番剧区域限制,这个特殊版本的 b 站 app 功能太强了
2022 年值得安装的几个 chrome/edge 扩展神器
一键批量下载微信公众号文章内容/图片/封面/视频/音频,支持导出html和pdf格式,包含阅读数/点赞数/在看数/留言数
网易云音乐每天自动听歌300首升级LV10,b站每天自动签到升级LV6,京东每天自动签到领京豆,微信运动每天自动修改步数
分享几个音乐神器 APP,免费收听和下载音乐,一键解锁网易云音乐变灰歌曲
如果文章对你有帮助还请
点赞/在看/分享
三连支持下, 感谢各位!